LLMs locales necesitan más que endpoints compatibles con OpenAI
Descubre Respawn: un gateway open-source que añade la capa de API estilo OpenAI a tus LLMs locales, con estado, streaming y herramientas.
#streaming normalizado
Descubre Respawn: un gateway open-source que añade la capa de API estilo OpenAI a tus LLMs locales, con estado, streaming y herramientas.